草庐IT

Debian 12

全部标签

exception - 帮助 : org. apache.hadoop.hbase.MasterNotRunningException 12.34.56.78:60000

我正在编写一个小型Java应用程序来连接到HBase节点。ZooKeeper连接成功,但是后来,我系统性的报如下错误(当然我已经更改了我的IP地址):org.apache.hadoop.hbase.MasterNotRunningException12.34.56.78:60000有谁知道发生了什么以及如何解决这个问题?谢谢! 最佳答案 好的,解决了这个问题。在某人自杀之前...->问题是由中央maven存储库(当前为0.90.xx)中可用的HBase.jar版本与Cloudera的CDH3安装包(0.89.xx)使用的版本不匹配引

java - 在 Hadoop 集群(一个名称节点,12 个数据节点)上完成没有映射和缩减的 hadoop 作业

我写了一个hadoop程序,在单机上运行,​​效果很好。但是当我将它迁移到一个集群(一个名称节点,12个数据节点)时遇到了以下问题(作业没有启动并在map启动后立即完成)命令在终端上运行:hadoopjarVOConeSearch.jarinputoutput142.82-3.321(这里input是hdfs中的一个目录用于输入,output是程序写入的hdfs目录,执行前hdfs中没有输出目录,142.82,-3.32,1是三个额外的参数)集群信息当我运行程序时,输入目录包含167537个文件11/06/1109:33:49INFOsecurity.Groups:Groupmappi

hadoop - 在 Ubuntu12.04 中安装 HDP Ambari

通过Ambari安装HDP2.0的步骤是什么?我已尝试使用Hortonworks文档中描述的步骤。但是,安装不成功。 最佳答案 Ambari支持RHEL(centos)6和7;SLES11sp3;Ubuntu12和Ubuntu14;Debian7. 关于hadoop-在Ubuntu12.04中安装HDPAmbari,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/20632822/

java - X12 解析使用 hadoop mapreduce

我必须使用hadoopmapreduce代码解析x12文件。有人可以建议我怎么做吗?解析后的输出应该可以被其他一些hadoop工具使用,比如hive谢谢,罗克托 最佳答案 我们需要更多信息,但在较高级别:根据您的语言获取或创建X12解析器。https://code.google.com/p/x12-parser/http://www.smooks.org/mediawiki/index.php?title=Main_Page确定您的mapreduce作业将输出什么:每个X12文档的XML树一堆片段???编写一个获取X12文档的作业(

mysql - 如何使用 hive 0.12 配置 mysql 5.5.35

我正在尝试使用Hive0.12配置MySQL,这就是我所做的-我安装了MySQL-mysqlVer14.14Distrib5.5.35,用于使用readline6.2的debian-linux-gnu(x86_64)mysql-connector-java-5.1.30并将jar文件复制到$HIVE_HOME/lib已安装HIVE0.12这是hive-site.xml条目javax.jdo.option.ConnectionURLjdbc:mysql://localhost:3306/metastore_db?createDatabaseIfNotExist=truemetadatai

json - Hadoop:无法运行 mapreduce 程序 ..java.io.IOException:error=12

我正在尝试在hadoop中运行mapreduce程序。基本上它接受一个文本文件作为输入,其中每一行都是一个json文本。我使用简单的json在我的映射器中解析这些数据,而reducer做一些其他的事情。我在hadoop/lib文件夹中包含了简单的jsonjar文件。这是下面的代码packageorg.myorg;importjava.io.IOException;importjava.util.Iterator;importjava.util.*;importorg.json.simple.JSONArray;importorg.json.simple.JSONObject;impor

java - 如果我们有 12 个分区键,而我们只有 8 个 Reducer,那么会生成多少个 op 文件?

如果我们有12个分区键而我们只有8个Reducer,将创建多少个op部分文件?创建的零件文件数量是否为12,即使4个reducer可以用于2个键。IE。1个reducer是否会发出2个部分文件,因为它使用2个键(对于4个Reducer)或者两个键的数据(给1个Reducer)将合并到一个部分文件中,因此只生成8个部分文件? 最佳答案 如果4个reducer为2个键工作,则创建的部分文件的数量将为8。一个reduce任务将只生成一个部分文件,即使它需要多个键。一个reduce任务分区可能包含多个键,并且它们是排序的。减少Reducer

hadoop - 在 ubuntu 12.04 LTS 中使用 cloudera manager 安装 Cloudera CDH5

我正在尝试在Ubuntu12.04LTS(64位)中使用ClouderaManager安装CDH5。我正在按照Clouderalink中提到的步骤进行操作.我无法为安装CDH5指定正确的主机名。除了/etc/hosts文件中的127.0.0.1和127.0.1.1之外,我没有任何其他条目。我正在使用USB加密狗访问互联网,但我现在没有任何以太网连接。请告诉我是否需要以太网连接才能在我的PC中安装CDH5。附言我目前是一名大型机开发人员,没有任何Linux或开源背景。我花了将近40个小时的时间试图在我的机器上安装CDH5,以便我可以进行Udacity'sIntroductiontoHad

mysql - 插入导致异常 ParseException 行 1 :12 missing TABLE at 'table_name' near '<EOF>' 的 Select 命令

我刚接触hadoop和hive2天。所以,我的理解是非常基础的。我有一个可能很愚蠢的问题。问题:我有一个配置单元外部表ABC,并创建了一个类似于ABC_TEST表的示例测试表。我的目标是根据select子句将ABC的某些内容复制到ABC_TEST。所以我使用以下命令创建了ABC_TEST:CREATETABLEABC_TESTLIKEABC;问题是:1)此ABC_TEST不是外部表。2)使用Desc命令,ABC_TEST的LOCATION内容类似于hdfs://somepath/somdbname.db/ABC_TEST-->Oncommand"hadoopfs-lshdfs://so

hadoop - 使用 tera gen 时从 kv.local/172.20.12.168 调用 localhost :8020 failed on connection exception,

我正在使用hadoopteragen检查hadoopmapreduce与terasort的基准测试。但是当我运行以下命令时,hadoopjar/Users/**/Documents/hadoop-2.6.4/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.4.jarteragen-Dmapreduce.job.maps=1001trandom-data我得到以下异常,17/06/0115:09:21WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourp